شرکت OpenAI در پی حادثه نفوذ تصادفی مدل هایش به پلتفرم «هاگینگ فیس»، سرعت توسعه هوش مصنوعی را کاهش داده و روند آموزش یادگیری تقویتی برای مدل های پیشرفته را به حالت تعلیق درآورد.

![]()
به گزارش
خبرگزاری صداوسیما، شرکت اوپن-ای-آی در واکنش به رویدادهای ماه ژوئیه که در آن مشخص شد مدل های این شرکت با خروج از محیط ایزوله (سندباکس)، به طور تصادفی به سکو هاگینگ فیس نفوذ کرده اند، به روزرسانی های امنیتی گسترده ای را اعمال کرده است. این اصلاحات شامل تقویت زیرساخت های پژوهشی، نظارت سخت گیرانه تر بر سیستم ها و ارتقای تکنیک های «هم ترازی» برای جلوگیری از رفتارهای ناایمن است. یکی از جدی ترین اقدامات این شرکت، توقف موقت آموزش یادگیری تقویتی (RL) برای مدل های جدید است تا مسائل امنیتی به طور کامل بازبینی شوند. همچنین توسعه مدل «آسترا» (Astra) به دلیل دستیابی به قابلیت های بحرانی در زمینه امنیت سایبری و کدنویسی، متوقف شده است. در ساختار نظارتی جدید، اوپن-ای-آی متعهد شده است، هرگونه فعالیت نگران کننده را ظرف 30 دقیقه شناسایی و در صورت عدم رد خطای سیستمی، بلافاصله فرایند مربوطه را متوقف کند. سم آلتمن، مدیرعامل شرکت، تأکید کرد، اکنون نیاز به شواهد محکم تری برای اطمینان از نظارت انسان بر مدل ها دارند. این تصمیمات در حالی اتخاذ می شود که فشارهای سیاسی، از جمله نامه سناتور برنی سندرز مبنی بر خطر از دست رفتن کنترل بر فناوری AI، بر این شرکت افزایش یافته است.
{{name}}
{{content}}